Thị trấn Cẩm Giang có lịch sử gần 400 năm, trong thư tịch cổ thì gọi là Cẩm Giang (sông Gấm), về sau vì kỵ húy của chúa Trịnh Giang nên đọc thành Cẩm Giàng.

Vùng đất Cẩm Giàng có bề dày văn hiến về khoa bảng, trong các cuộc thi qua các Triều đại đã có 54 vị đỗ đại khoa. Năm 1655, tại đây đã xây dựng Văn chỉ huyện (là một trong các Văn chỉ có nhiều người đỗ đạt nhất tỉnh thời ấy) để ghi công người xưa.

Đến năm Minh Mạng thứ 19 (1838), lỵ sở huyện Cẩm Giàng ở thôn Trữ La chuyển về khu đất phía đông bắc thôn Kim Quan cũng cùng một xã. Kim Quan trở thành thủ phủ Cẩm Giàng, có huyện đường đông vui sầm uất. Vùng đất đồng bằng, có ngã ba sông, hình thành phố lẻ, chợ nhỏ, nhanh chóng thu hút dân các vùng về đây lập nghiệp.

Năm 1905, đường sắt Hà Nội - Hải Phòng chạy qua chia cắt tự nhiên làng thành 2 phần: thôn Kim Quan và phố Cẩm Giàng cùng nhà ga. Ga Cẩm Giàng trở thành đầu mối quan trọng trung chuyển hành khách và hàng hoá cho cả vùng.

Khoảng năm 1910, đường xe lửa nối liền Cẩm Giàng với Ninh Giang (một huyện của Hải Dương) bắt đầu đi vào hoạt động, đầu tiên là để phục vụ cho việc vận chuyển hàng hóa (hàng hóa chủ yếu là thóc, gạo tới nhà máy xay Ninh Giang được xây dựng rất lớn khi đó, sau khi khai thác một thời gian thì dần dần suy giảm do việc vận chuyển được thực hiện bằng đường thủy nối thẳng từ Ninh Giang về thị xã Hải Dương), việc này làm cho phố Cẩm Giàng càng trở lên sầm uất.

Năm 1925, xảy ra mâu thuẫn về đất cát, quyền lợi của nhân dân và hương lý sở tại. Để giải quyết mâu thuẫn đó, ở đây đã lập ra khu vực hành chính riêng, tách làng thành phố (tức phố thuộc làng).

Trước cách mạng tháng 8 năm 1945, địa bàn thị trấn Cẩm Giàng thuộc xã Kim Quan, tổng Kim Quan, huyện Cẩm Giàng, tỉnh Hải Dương. Cách mạng tháng Tám thành công, nhưng đến tháng 4 năm 1946 xã Kim Giang mới được thành lập.

Từ năm 1955, phố Cẩm Giàng không còn là huyện lỵ nữa do cơ quan huyện chuyển về Cao Xá, vì vậy về mặt hành chính lúc này phố vẫn trực thuộc xã Kim Giang.

Ngày 19 tháng 9 năm 1958, theo Quyết định 145 của Uỷ ban Hành chính Quân khu Tả ngạn, khu phố Cẩm Giàng (thuộc xã Kim Giang) tách ra thành thị trấn Cẩm Giàng.

Ngày 11 tháng 3 năm 1974, điều chỉnh một phần diện tích và dân số của xã Kim Giang để thành lập xã Cẩm Sơn mới thay cho xã Cẩm Sơn cũ vừa giải thể.[3]

Trước khi sáp nhập, thị trấn Cẩm Giàng có diện tích 0,46 km², dân số là 2.117 người, mật độ đạt 4.602 người/km². Xã Kim Giang có diện tích 5,11 km², dân số là 6.191 người, mật độ dân số đạt 1.212 người/km², gồm 6 thôn: Kim Quan, Nguyên Khê, La A, La B, Tú La, Tràng Kênh.

Ngày 16 tháng 10 năm 2019, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 788/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp huyện, cấp xã thuộc tỉnh Hải Dương (nghị quyết có hiệu lực từ ngày 1 tháng 12 năm 2019)[1]. Theo đó, thành lập thị trấn Cẩm Giang trên cơ sở sáp nhập toàn bộ diện tích và dân số của xã Kim Giang và thị trấn Cẩm Giàng.